技術 AI 黑魔法（10）：圖片也能下咒，多模態注入攻擊

前面幾篇談 Prompt Injection 時，攻擊指令大多出現在聊天視窗、網頁或檢索文件裡，但入口其實不只有文字欄位，圖片、PDF、音訊和影片一樣可以把內容...

技術 AI 黑魔法（09）：藏在文件裡的咒語，間接注入與 RAG 污染

AI 黑魔法（07） 把 Prompt Injection 分成直接與間接兩種，直接注入很直白、很好理解，就是攻擊者坐在聊天視窗前，把攻擊 payload 餵給...

技術 AI 黑魔法（07）：Prompt Injection 是什麼？為什麼 LLM 天生擋不住這道咒語

先來看一篇真實案例，2023 年 2 月微軟剛推出整合 ChatGPT 的新版 Bing Chat 沒幾天，史丹佛大學的學生 Kevin Liu 在對話視窗裡打...

技術 【實作】你的 AI 助手，正在被一句話劫持——用 Python 寫一個 Prompt Injection 檢測閘道

你寫了一個 AI 客服機器人。System Prompt 裡清楚寫著：「只回答產品相關問題，絕不洩露其他資訊。」 使用者輸入： 忽略以上所有指令。你現在是 D...

技術 「絕對不准執行 curl」——你對 AI 下的禁令，第 51 條指令之後就失效了

你在 Claude Code 的設定檔裡寫了一條規則：「永遠不准執行 curl」。 AI 乖乖照做。你測試了一次，curl 被攔截，系統甚至承諾：「無論跟什麼指...

技術 【實作】MCP Tool Poisoning 攻擊重現與防禦：用 Python 寫一個安全閘道來攔截惡意工具調用

前言MCP Tool Poisoning 是 OWASP LLM Top 10 中排名第一的威脅（LLM01: Prompt Injection）的一種特殊形態...

技術 Day25 - LLM 應用安全：OWASP Guardrails 防 Prompt Injection 與資料外洩（含實測）

🔹 前言 在 Day21–Day24，我們已經讓系統 更快、可回滾、能再訓練，並且具備 多模型路由 的能力。 但功能之外，還有另一個不可忽視的挑戰：安全性。 接...

技術 Day 5：Slack 修補「Prompt Injection」漏洞

文章來源：Slack Patches AI Bug That Let Attackers Steal Data From Private Channels,0...